Unión Europea aprueba la normativa sobre IA más amplia del mundo pese a críticas

El Parlamento Europeo aprobó el miércoles la Ley de Inteligencia Artificial, que constituye un hito en la materia, a falta de legislación estadounidense.

El conjunto de normas podría marcar la pauta de la gobernanza de la IA en Occidente. Pero la aprobación de la ley se produce en un momento en que las empresas temen que la ley vaya demasiado lejos y los organismos de control digital dicen que no va lo suficientemente lejos.

"Europa es ahora un referente mundial en materia de inteligencia artificial fiable", declaró Thierry Breton, Comisario de Mercado Interior.

La Ley de Inteligencia Artificial se convierte en ley tras la firma de los Estados miembros, que suele ser una formalidad, y una vez publicada en el Diario Oficial de la UE.

La nueva ley pretende responder a la preocupación por la parcialidad, la privacidad y otros riesgos de esta tecnología en rápida evolución. La legislación prohibiría el uso de la IA para detectar emociones en lugares de trabajo y escuelas, y limitaría su uso en situaciones de alto riesgo, como la selección de solicitudes de empleo. También impondría las primeras restricciones a las herramientas de IA generativa, que acapararon la atención mundial el año pasado con la popularidad de ChatGPT.

Las preocupaciones

Sin embargo, el proyecto de ley ha suscitado preocupación en los tres meses transcurridos desde que los funcionarios alcanzaron un acuerdo provisional tras una maratónica sesión de negociación que duró más de 35 horas.

Cuando las negociaciones llegaron a su recta final el año pasado, los gobiernos francés y alemán se opusieron a algunas de las ideas más estrictas para regular la IA generativa, alegando que las normas perjudicarían a empresas europeas como la francesa Mistral AI y la alemana Aleph Alpha GmbH. Grupos de la sociedad civil como Corporate Europe Observatory (CEO) expresaron su preocupación por la influencia que tuvieron las grandes tecnológicas y las empresas europeas en la configuración del texto final.

Esta influencia unilateral significó que la "IA de propósito general" quedara en gran medida exenta de las normas y sólo se le exigiera cumplir con unas pocas obligaciones de transparencia", escribieron en un comunicado organizaciones como CEO y LobbyControl, en referencia a los sistemas de IA capaces de realizar una gama más amplia de tareas.

El reciente anuncio de que Mistral se había asociado con Microsoft Corp. suscitó la preocupación de algunos legisladores. Kai Zenner, un asistente parlamentario clave en la redacción de la ley y ahora asesor de las Naciones Unidas en política de IA, escribió que el movimiento era estratégicamente inteligente y "tal vez incluso necesario" para la startup francesa, pero dijo que "el legislador de la UE fue jugado de nuevo".

Brando Benifei, legislador y principal autor de la ley, afirmó que los resultados hablan por sí solos. "La legislación define claramente las necesidades de seguridad de los modelos más potentes con criterios claros, por lo que está claro que nos hemos mantenido firmes", declaró el miércoles en rueda de prensa.

Las empresas estadounidenses y europeas también han expresado su preocupación por que la ley limite la competitividad del bloque.

"Con una industria de tecnología digital limitada y una inversión relativamente baja en comparación con gigantes de la industria como Estados Unidos y China, las ambiciones de soberanía tecnológica y liderazgo en IA de la UE se enfrentan a obstáculos considerables", escribió Raluca Csernatoni, investigadora del think tank Carnegie Europe.

Nuevo organismo

Durante el debate del martes, los legisladores reconocieron que aún queda mucho trabajo por hacer. La UE está creando la Oficina de Inteligencia Artificial, un organismo independiente dentro de la Comisión Europea. En la práctica, la Oficina será el principal organismo de control, con capacidad para solicitar información a las empresas que desarrollen IA generativa y, posiblemente, prohibir que un sistema opere en el bloque.

"Las normas que hemos aprobado en este mandato para regular el ámbito digital -no sólo la Ley de IA- son verdaderamente históricas, pioneras", dijo Dragos Tudorache, miembro del Parlamento Europeo que también fue uno de los autores principales. "Pero hacer que todas funcionen en armonía con el efecto deseado y convertir a Europa en la potencia digital del futuro será la prueba de nuestra vida".